Големи технологични компании подписват споразумение за борба с генерираната от изкуствен интелект изборна дезинформация

Meta, OpenAI, TikTok, Microsoft и Amazon бяха измежду подписалите съглашението на Мюнхенската конференция по сигурността. X на Илон Мъск също се записа.

Големи софтуерни компании подписаха пакт в петък за непринудено приемане на „ рационални защитни ограничения “, с цел да предотвратят потреблението на принадлежности за изкуствен интелект (AI) за спиране на демократичните избори по света.

Ръководители от Adobe, Amazon, Гугъл, IBM, Meta, Microsoft, OpenAI и TikTok се събраха на Мюнхенската конференция по сигурността, с цел да разгласят нова рамка за това по какъв начин реагират на това, че съзнателно подмамват гласоподавателите.

Други дванадесет компании – в това число X на Илон Мъск – също подписват съглашението.

„ Всички признава, че нито една софтуерна компания, нито едно държавно управление, нито една организация на гражданското общество не е в положение сама да се оправи с навлизането на тази технология и нейната допустима нечестна приложимост “, сподели Ник Клег, президент по световните въпроси на Meta, компанията майка на Фейсбук и Instagram, в изявление преди срещата.

Споразумението е значително алегорично, само че е ориентирано към все по-реалистични изображения, аудио и видео, генерирани от AI, „ които лъжливо фалшифицират или трансформират външния тип, гласа, или дейности на политически претенденти, изборни длъжностни лица и други основни заинтригувани страни в демократични избори, или които дават погрешна информация на гласоподавателите по отношение на това по кое време, къде и по какъв начин могат законно да гласоподават ".

Компаниите не са ангажиране да забрани или отстрани deepfakes. Вместо това, съглашението обрисува методите, които те ще употребяват, с цел да се опитат да открият и етикетират лъжливо AI наличие, когато то се основава или популяризира на техните платформи.

Отбелязва се, че фирмите ще споделят най-хубави практики и ще обезпечат „ бързи и пропорционални отговори “, когато това наличие стартира да се популяризира.

Липса на обвързващи условия

Неяснотата на уговорките и неналичието на каквито и да е обвързващи условия евентуално помогнаха да се завоюват разнородни компании, само че разочарованите бранители търсеха по-силни гаранции.

„ Езикът не е толкоз мощен, колкото можеше да се чака “, сподели Рейчъл Ори, старши асоцииран шеф на плана за избори в Центъра за двупартийна политика.

„ Мисля, че би трябвало да отдадем заслуженото там, където би трябвало, и да признаем, че фирмите в действителност имат персонален интерес техните принадлежности да не бъдат употребявани за подкопаване на свободни и почтени избори. Това сподели, че е непринудено и ние ще следим дали те следват. "

Клег сподели, че всяка компания " напълно вярно има собствен личен набор от политики за наличието ".

„ Това не е опит да се наложи усмирителна риза на всички “, сподели той.

„ И във всеки случай никой в ​​индустрията не мисли, че можете да се справите с напълно нова софтуерна парадигма, като замитате нещата под килима и се пробвате да играете на къртица и да намирате всичко, което мислите може да подведе някого ".

Няколко политически водачи от Европа и Съединени американски щати също се причислиха към известието в петък. Вицепрезидентът на Европейската комисия сподели, че макар че такова съглашение не може да бъде изчерпателно, „ то съдържа доста въздействащи и позитивни детайли “.

Тя също по този начин прикани сътрудниците си политици да поемат отговорност да не употребяват лъжливо AI инструментите и предизвести, че подхранваната от AI дезинформация може да докара до „ края на демокрацията, освен в държавите-членки на Европейски Съюз “.

ИИ намесата в изборите към този момент е в ход

Споразумението на годишната среща по сигурността на немския град идва, когато повече от 50 страни би трябвало да проведат национални избори през 2024 година Бангладеш, Тайван, Пакистан и неотдавна Индонезия към този момент го направиха.

Опитите за интервенция в изборите, генерирани от AI, към този момент са почнали, като да вземем за пример, когато AI robotocalls, които имитираха гласа на, се пробваха да обезсърчат хората да гласоподават на първичните избори в Ню Хемпшир избори предишния месец.

Само дни преди изборите в Словакия през ноември, генерирани от AI аудиозаписи се показват за претендент, който разисква проекти за повишение на цените на бирата и подправяне на изборите. Проверяващите обстоятелства се пробваха да ги разпознават като погрешни, до момента в който се разпространяваха в обществените медии.

Политиците също опитаха с технологията, от потреблението на чатботове с изкуствен интелект за връзка с гласоподавателите до прибавяне на генерирани от изкуствен интелект изображения към реклами.

Споразумението приканва платформите да „ извърнат внимание на подтекста и по-специално на отбраната на просветителното, документалното, художественото, сатиричното и политическото изложение “.

В него се споделя, че фирмите ще се съсредоточат върху прозрачността за потребителите по отношение на своите политики и ще работят, с цел да образоват обществеността за това по какъв начин могат да избегнат фалшификатите на AI.

Повечето компании са споделили преди този момент, че слагат защитни ограничения върху техните лични генеративни AI принадлежности, които могат да манипулират изображения и тон, като в същото време работят за идентифициране и етикетиране на генерирано от AI наличие, тъй че потребителите на обществени медии да знаят дали това, което виждат, е действително. Но множеството от препоръчаните решения към момента не са въведени и фирмите са изправени пред напън да създадат повече.

Този напън се ускорява в Съединени американски щати, където Конгресът към момента не е приел закони, регулиращи ИИ в политиката, оставяйки фирмите значително да се ръководят сами.

Федералната комисия по връзките неотдавна удостовери, че генерираните от изкуствен интелект аудиоклипове в роботизирани позвънявания са срещу закона, само че това не обгръща дълбоките аудио фалшификации, когато се популяризират в обществените медии или в рекламни акции.

Много компании за обществени медии към този момент имат въведени политики за въздържане на лъжливи изявления за изборни процеси – генерирани от AI или не.

Meta споделя, че отстранява дезинформация по отношение на " датите, местата, часовете и методите за гласоподаване, регистрация на гласоподаватели или присъединяване в преброяването ", както и други подправени изявления, предопределени да попречат на нечие гражданско присъединяване.

> Онлайн платформи ще получат насоки за изборите преди гласуването през юни

Отсъстващите от съглашението

Джеф Алън, съосновател на Integrity Institute и някогашен експерт по данни във Фейсбук, сподели, че съглашението наподобява като „ позитивно стъпка ", само че въпреки всичко би желал да види фирмите за обществени медии да подхващат други дейности за битка с дезинформацията, като да вземем за пример създаване на системи за препоръчване на наличие, които не дават приоритет на ангажираността над всичко друго.

Лиза Гилбърт, изпълнителен вицепрезидент на застъпническата група Public Citizen твърди в петък, че съглашението „ не е задоволително “ и фирмите за изкуствен интелект би трябвало да „ задържат технологии “ като хиперреалистични генератори за текст към видео „ до момента в който не бъдат въведени основни и съответни гаранции, които да ни оказват помощ попречване на доста евентуални проблеми ".

В допълнение към фирмите, които помогнаха за сключването на петъчното съглашение, други подписали са разработчиците на чатботове Anthropic и Inflection AI; пускане на гласово клониране ElevenLabs; дизайнер на чипове Arm Holdings; фирмите за сигурност McAfee и TrendMicro; и Stability AI, прочут с това, че прави генератора на изображения Stable Diffusion.

Забележително липсва различен известен AI генератор на изображения, Midjourney. Стартъпът, основан в Сан Франциско, не отговори незабавно на искане за коментар в петък.

Включването на X - неспоменато в по-ранно известие за идното съглашение - беше една от изненадите на съглашението от петък.

Мъск внезапно ограничи екипите за модериране на наличие, откакто пое някогашния Twitter и се разказа като „ абсолютист на свободата на словото “.

В изказване в петък изпълнителният шеф на X Линда Якарино сподели: „ всеки жител и компания имат отговорността да подсигуряват свободни и почтени избори ".

" X е отдаден на това да играе своята роля, да си сътрудничи с сътрудници за битка със заканите от ИИ, като в същото време пази свободата на словото и усилва оптимално прозрачността, " сподели тя.